Tạ An lại mời Trữ thái hậu (Hoàng hậu của Tấn Khang Đế) chấp chính[20][21]. Tạ An được thăng làm Bộc xa, thứ sử Dương châu và thống lĩnh bộ lại, cùng phụ chính với Vương Bưu Chi và Vương Thản Chi. Tuy nhiên sang năm 375, Vương Thản Chi mất, Tạ An chỉ còn phụ chính một mình. Ông cho rằng việc triều chính phải do tất cả đại thần cùng tham gia bàn bạc, không hài lòng với việc giao hết triều đình cho hoàng tộc đảm nhiệm.

Năm 376, Tấn Hiếu Vũ Đế đã trưởng thành, bắt đầu tự quyết định chính sự[22]. Tạ An được thăng lên chức Trung thư giám, Phiêu kị tướng quân Lục thượng thư sự, quyền hành như một vị tể tướng[23]. Trong thời gian đầu làm tể tướng, Tạ An thấy rằng biên cương thường có giặc cướp hoành hành, hai châu Lương, Ích ít khi được yên, nhưng vẫn không dùng chính sách tiết kiệm, mặt khác ra lệnh cấm dân say rượu và tăng thuế. Khi cung thất bị hư hại, Tạ An ra lệnh tu sửa mặc dù trong nước vẫn còn bạo động nhưng nhân dân đều vui vẻ tuân theo. Về sau, Tạ An tiếp tục được thăng lên đến chức Thị trung, đô đốc năm châu Dương, Dự, Từ, Duyện, Thanh.

Cũng trong lúc đó, nước Tiền Tần đã thống nhất được miền bắc và lăm le đe dọa tới miền nam. Năm 373, vua Tần là Phù Kiên sai quân tấn công và chiếm Lương châu[24] và Ích Châu[25]. Sang năm 376, Tiền Tần tiêu diệt chư hầu của nhà Tấn là nước Bắc Lương, đánh tan của quân cứu viện của triều đình. Trước sự đe dọa của Tiền Tần, Tạ An cho di cư dân ở lưu vực sông Hoài Hà về nam. Sang năm 377, thành Quảng Lăng thiếu một tướng phòng thủ, Tạ An bèn tiến cử cháu là Tạ Huyền làm Duyện châu thứ sử, Vệ tướng quân, lo việc phòng thủ ở Giang Bắc, còn mình lo việc phòng thủ ở hạ du Trường Giang. Tạ Huyền ở Duyện châu tích cực tập hợp binh lực, về sau phát triển thành Bắc phủ quân, một đội quân nổi tiếng cuối thời Đông Tấn[26].

Năm 378, Phù Kiên sai con là Chinh Nam tướng quân Phù Phi dẫn 7 vạn quân tiến công thành Tương Dương[27], còn bản thân Phù Kiên thống lĩnh 10 vạn quân ở phía nam, phân quân tam lộ cùng tiến đánh Tương Dương. Trước lực lượng của quân Tần, đến tháng 2 năm 379, thành Tương Dương bị phá. Sau đó, Phù Kiên lại phái Bành Siêu tấn công Bành Thành[28] và Hoài Nam[29]. Trước tình thế ấy, Tạ An cho bố trí năm vạn quân phòng thủ chặt chẽ vùng Quảng Lăng. Cuối cùng, Tạ Huyền bốn lần liên tiếp đánh tan quân Tần, buộc Phù Kiên lui quân. Sau trận này, Tạ An được triều đình thăng làm Kiến Xương huyện công, Vệ tướng quân, Khai phủ nghi đồng tam ti.[30].

Tháng 8 năm 383, Hoàn Xung dẫn 10 vạn quân bắc phạt Tiền Tần. Phù Kiên phái Phù Duệ, Mộ Dung Thùy, Diêu Trường và Mộ Dung Vĩ ra nghênh chiến, quân đông gần 90 vạn, lại lấy em là Phù Dung làm tiên phong. Tháng 7 cùng năm, Hoàn Xung rút về phía nam thì sang tháng 8, Phù Kiên lập tức nam hạ. Được tin, Tạ An sai Tạ Thạch là Đại đô đốc, Tạ Huyền làm tiên phong, cùng 8 vạn quân mã do Tạ Diễm, Hoàn Y chỉ huy, phân quân tam lộ nghênh địch. Đến tháng 11, Tạ Huyền phái Lưu Lao Chi dẫn 5000 quân, đánh bại quân Tần ở Lạc Giản, chém 10 tướng và diệt 5 vạn quân chủ lực của Kiên. Đến tháng 12 cùng năm, trận Phì Thủy nổ ra, Tạ Huyền, Tạ Diễm và Hoàn Y suất 7 vạn quân, tiêu diệt và đánh bại hoàn toàn lực lượng đông đảo của Tiền Tần, chém chết Phù Dung, giành được thắng lợi to lớn.